Traditional statistical representations outperform generative AI in identifying expert peer reviewers
传统统计表示在识别同行评审专家方面优于生成式AI
🧭 专家推荐 · 信息检索评估
Michigan State University · Masaryk University · Max Planck Institute for Astrophysics · Joint ALMA Observatory · Stanford University
在细粒度领域专家匹配任务上，TF-IDF明显优于GPT-4o mini，揭示了生成式语义平滑的局限
📌 工作参考价值（4 点）
- 构建专家匹配或领域内容推荐系统时，不要盲目引入 LLM；TF-IDF 等稀疏词汇匹配在需要区分近似子领域的场景下可能更可靠。
- 评估框架可复用：以项目提案作者作为领域专家的 ground truth，用召回率等 IR 指标严格对比方法，这种设计在电商的商家-类目匹配、达人-品类对齐等场景中也可应用。
- 生成式嵌入的语义平滑会丢失细粒度词汇信息，可考虑混合稀疏/稠密表示（如结合 TF-IDF 与 LLM embedding）来提升长尾或冷启动物品的推荐精度。
- 在 Agent 的工具调用或知识检索模块中，若任务需要精确匹配专有名词或小领域术语，传统检索方式可能比基于 LLM 的 RAG 更有效，可作为基线。